Regulated Workloads(受監管的工作負載)

• Financial、Healthcare、Aerospace(航太)，需要更高層級的compliance require
• 遵守監管框架，必須配合audit(稽核)、archival(資料歸檔)或特定的安全要求

compliance challenges

• Complexity and Opacity(不透明性)
• Dynamism and Adaptability: AI會隨著時間而改變
• Emergent Capabilities: 會意外展現出未預期的功能
• Unique Risks: 演算法偏見、隱私侵犯與錯誤資訊；人為偏見，在撰寫程式或建立模型時，不自覺地將自身偏見帶入其中
• Algorithm accountability: 《人工智慧法案》；開發與使用AI時，能夠促進公平、避免歧視，並維護人權

model cards

• 一種標準化格式，用來記錄ML模型的重要細節
• 在Gen AI的情境下，模型卡會包含data source citations(資料來源引用)與data origin documentation(資料來源文件說明)
• 需要詳細記錄所使用的資料集、來源、授權情況、notes and biases(註解偏差)、品質問題
• 模型的網路使用狀況、risk rating(風險等級)、訓練細節與相關metrics